既然都測試了，就順便更新一下測試紀錄。

Bedrock (共用 Profile) -> Claude 3.7 Sonnet

• max_tokens：1200
  回應時間：35-40 sec
  回應品質：高
  完整回應內容：每日占卜測試

Anthropic -> Claude 3.7 Sonnet

• max_tokens：1200
  回應時間：20-23 sec
  回應品質：高
  完整回應內容：每日占卜測試

• max_tokens：800
  另外調整 system_role 降低字數
  回應時間：15-28 sec
  回應品質：高
  完整回應內容：每日占卜測試

Anthropic -> Claude 3.5 Haiku

• max_tokens：800
  回應時間：9-12 sec
  回應品質：中
  完整回應內容：每日占卜測試

• max_tokens：800
  加入字數和風格要求
  回應時間：10-13 sec
  回應品質：中 (無顯著提升)
  完整回應內容：每日占卜測試

比較表

花費

總共測試次數約在 20-25 次，花費金額如下：

小結

• Prompt 越長、文字越多，回應時間就越久；縮短字數能有效加速
• 多餘的 max_tokens 會導致回應速度變慢
• Haiku 可以透過 prompt 調整風格，但難以和 3.7 Sonnet 相提並論，且調整過頭會導致內容變得抽象、失真
• 在 Lambda 上測試會受到冷啟動影響，需要自行排除
• 如果只是自己做來玩，5塊美金就可以玩很久